
Κανονική κατανομή και κεντρικό οριακό θεώρημα
Εισαγωγή
Σε αυτό το κεφάλαιο, εξετάζουμε την πιο γνωστή στατιστική κατανομή: την κανονική κατανομή (normal distribution). Συχνά αναφέρεται ως «καμπύλη καμπάνας» (bell curve) λόγω του χαρακτηριστικού της σχήματος και παίζει κεντρικό ρόλο στη στατιστική και στην ανάλυση δεδομένων. Πρόκειται για μια συνεχή κατανομή, που σημαίνει ότι περιγράφει μεταβλητές που μπορούν να πάρουν οποιαδήποτε τιμή μέσα σε ένα εύρος, σε αντίθεση με τις διακριτές κατανομές, που αφορούν τιμές που μπορούν να μετρηθούν (βλ. Κεφάλαιο Στατιστικές κατανομές).
Η σημασία της κανονικής κατανομής οφείλεται σε μεγάλο βαθμό σε μια θεμελιώδη ιδέα της θεωρίας πιθανοτήτων: το κεντρικό οριακό θεώρημα (Central Limit Theorem). Αυτή η έννοια βοηθά να εξηγήσουμε γιατί η κανονική κατανομή εμφανίζεται τόσο συχνά στην πράξη—ακόμη και όταν τα αρχικά δεδομένα δεν ακολουθούν κανονική κατανομή. Θα συζητήσουμε αυτή την έννοια αναλυτικά σε όλο το κεφάλαιο.
Στο υπόλοιπο του κεφαλαίου, θα εξετάσουμε τις βασικές ιδιότητες της κανονικής κατανομής, όπως οι παράμετροι και το σχήμα της. Θα συζητήσουμε επίσης τα κύρια στατιστικά της μέτρα και θα δείξουμε πώς κάνουμε προσομοιώσεις και υπολογισμούς από αυτή την κατανομή με την R.
Πότε συναντάμε την κανονική κατανομή;
Η κανονική κατανομή είναι μία από τις πιο σημαντικές κατανομές στη στατιστική. Εμφανίζεται σε πολλούς τομείς των θετικών επιστημών, της ιατρικής και των κοινωνικών επιστημών, συχνά ως εξαιρετική προσέγγιση των μοτίβων των πραγματικών δεδομένων. Το ύψος των ανθρώπων, η αρτηριακή πίεση, οι τιμές IQ και τα σφάλματα μέτρησης των οργάνων είναι κλασικά παραδείγματα όπου η κανονική κατανομή περιγράφει καλά τη μεταβλητότητα.
Πώς όμως έφτασε αυτή η κατανομή να θεωρείται τόσο κεντρική; Ιστορικά, η κανονική κατανομή εμφανίστηκε για πρώτη φορά στις αρχές του 18ου αιώνα, μέσα από το έργο του Abraham de Moivre (De Moivre, 1733). Ο de Moivre ανακάλυψε ότι, όταν ο αριθμός των δοκιμών σε μια διωνυμική κατανομή (binomial distribution) γίνεται μεγάλος, το σχήμα της διωνυμικής κατανομής μπορεί να προσεγγιστεί από αυτό που σήμερα ονομάζουμε κανονική καμπύλη. Αυτή ήταν η πρώτη ένδειξη ότι η κανονική κατανομή δεν ήταν απλώς μια μαθηματική περιέργεια, αλλά ένα χρήσιμο πρακτικό μοτίβο.
Μεταγενέστερες εξελίξεις στη θεωρία πιθανοτήτων—ιδίως ο νόμος των μεγάλων αριθμών (Law of Large Numbers, LLN) και το κεντρικό οριακό θεώρημα (Central Limit Theorem, CLT)—βοήθησαν να εξηγηθεί γιατί η κανονική κατανομή εμφανίζεται τόσο συχνά. Ο LLN μας λέει ότι, καθώς παίρνουμε μεγαλύτερα δείγματα, το sample mean τείνει να σταθεροποιείται γύρω από το πραγματικό population mean. Το CLT προχωρά ένα βήμα παραπέρα: δείχνει ότι η κατανομή του sample mean προσεγγίζει την κανονική κατανομή καθώς αυξάνεται το μέγεθος του δείγματος, ανεξάρτητα από το πώς είναι ο πληθυσμός—είτε έχει ασυμμετρία, είτε είναι ομοιόμορφος, είτε οτιδήποτε άλλο—αρκεί το variance του να είναι πεπερασμένο.
Διαισθητικά, αυτό συμβαίνει επειδή προσθέτουμε ή υπολογίζουμε τον μέσο όρο πολλών, σχετικά μικρών συνεισφορών (ή αιτιών). Κάποιες (τυχαίες) αιτίες ωθούν τις τιμές προς τα πάνω, άλλες προς τα κάτω και, όταν συνδυάζονται μέσω της πρόσθεσης, οι ακραίες τιμές τείνουν να αλληλοεξουδετερώνονται. Το αποτέλεσμα είναι μια πιο ομαλή, συμμετρική κατανομή με κέντρο το mean. Γι’ αυτό τα προσθετικά σφάλματα μέτρησης—που προκύπτουν από πολλές, σχετικά μικρές ανεξάρτητες διαταραχές—συχνά ακολουθούν κανονικό μοτίβο (McElreath, 2020).
Μια χρήσιμη αναλογία είναι η ανάμειξη υλικών: όσο ασυνήθιστες κι αν είναι οι μεμονωμένες γεύσεις, όταν αναμειγνύουμε μεγάλο αριθμό από αυτές, η τελική γεύση γίνεται σταθερή και ισορροπημένη. Με τον ίδιο τρόπο, όταν πολλοί ανεξάρτητοι παράγοντες συμβάλλουν προσθετικά σε ένα αποτέλεσμα, η συνολική κατανομή τείνει προς τη γνωστή κανονική καμπύλη σε σχήμα καμπάνας.
LLN και CLT
Είναι σημαντικό να καταλάβουμε ότι, παρόλο που τόσο ο LLN όσο και το CLT περιγράφουν τι συμβαίνει όταν αυξάνεται το μέγεθος του δείγματος, περιγράφουν διαφορετικά φαινόμενα. Ο LLN αφορά την ακρίβεια του sample mean—μας λέει ότι ο μέσος όρος των δεδομένων μας πλησιάζει τον πραγματικό μέσο όρο του πληθυσμού. Το CLT, από την άλλη πλευρά, αφορά το σχήμα της κατανομής αυτών των μέσων όρων—μας λέει ότι η κατανομή των sample means γίνεται κατά προσέγγιση κανονική. Αυτά τα δύο θεωρήματα μπορούν να ισχύουν ταυτόχρονα, αλλά είναι απαραίτητο να θυμόμαστε ότι το καθένα αφορά μια διαφορετική πτυχή της δειγματοληψίας.
Ποιες είναι οι παράμετροι και το σχήμα της κανονικής κατανομής;
Όταν μια μεταβλητή \(X\) ακολουθεί κανονική κατανομή, γράφουμε:
\[ X \sim N(\mu, \sigma^2) \]
Εδώ, το γράμμα \(N\) αναφέρεται στην κανονική κατανομή, ενώ οι δύο παράμετροι, \(\mu\) και \(\sigma^2\), ορίζουν το σχήμα της. Συγκεκριμένα, το \(\mu\) είναι το mean της κατανομής και το \(\sigma^2\) είναι το variance. Αυτές οι δύο παράμετροι είναι ό,τι χρειαζόμαστε για να περιγράψουμε πλήρως οποιαδήποτε κανονική κατανομή.
Αν η \(X\) ακολουθεί κανονική κατανομή με παραμέτρους \(\mu\) και \(\sigma^2\), μπορούμε να περιγράψουμε πόσο πιθανές είναι οι διάφορες τιμές της \(X\) χρησιμοποιώντας τη συνάρτηση πυκνότητας πιθανότητας (probability density function, PDF). Η PDF είναι απλώς ο μαθηματικός τύπος που ορίζει το σχήμα της κατανομής. Κάθε συνεχής θεωρητική κατανομή έχει τη δική της PDF, η οποία ορίζεται από τις μοναδικές παραμέτρους και την εξίσωσή της (Casella & Berger, 2002). Για την κανονική κατανομή, η PDF δίνεται από τον τύπο:
\[f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \cdot e^{-\frac{(x - \mu)^2}{2\sigma^2}}\]
Τις περισσότερες φορές, δεν χρειάζεται να απομνημονεύουμε τις PDFs· το σημαντικό είναι να εστιάζουμε στις παραμέτρους τους και στο πότε είναι κατάλληλες για εφαρμογή. Το βασικό συμπέρασμα εδώ είναι ότι οι τιμές των \(\mu\) και \(\sigma^2\) καθορίζουν το τελικό σχήμα και τη θέση (ως προς το mean) μιας κανονικής καμπύλης. Τα υπόλοιπα στοιχεία—το \(\pi\) (περίπου 3.14) και το \(e\) (ο αριθμός του Euler, περίπου 2.718)—είναι μαθηματικές σταθερές.
Ας αναλύσουμε τον ρόλο των δύο παραμέτρων:
Το \(\mu\) (μι) είναι το mean της κατανομής και δείχνει το κέντρο της καμπύλης. Δείχνει πού βρίσκεται η κορυφή (το υψηλότερο σημείο) της καμπύλης καμπάνας.
Το \(\sigma\) (σίγμα) είναι το standard deviation, το οποίο μετρά τη διασπορά της κατανομής. Ένα μικρότερο \(\sigma\) δίνει μια στενή, απότομη καμπύλη· ένα μεγαλύτερο \(\sigma\) δίνει μια πιο φαρδιά, πιο επίπεδη καμπύλη.
Αυτές οι παράμετροι σχετίζονται επίσης άμεσα με την αναμενόμενη τιμή (expected value) και το variance της μεταβλητής:
\[E[X] = \mu\]
\[Var[X] = \sigma^2\]
Ας δούμε ένα παράδειγμα όπου \(\mu = 0\) και \(\sigma = 1\). Η κατανομή που προκύπτει είναι η εξής:

Σε αυτό το διάγραμμα, το κέντρο της καμπύλης βρίσκεται στο 0, που αντιστοιχεί στο mean, και η διασπορά ορίζεται από ένα standard deviation ίσο με 1. Φαίνεται ότι το κέντρο και η κορυφή της καμπύλης βρίσκονται σε density περίπου 0.4. Μπορούμε να το επιβεβαιώσουμε χρησιμοποιώντας την PDF που είδαμε νωρίτερα, θέτοντας \(x = 0\), \(\mu = 0\) και \(\sigma = 1\):
\[f(x = 0) = \frac{1}{\sqrt{2\pi\sigma^2}} \cdot e^{-\frac{(x - \mu)^2}{2\sigma^2}} = \frac{1}{\sqrt{2 \times 3.14}} \cdot e^0 \approx 0.4\]
Όσον αφορά τη διασπορά, τα περισσότερα δεδομένα βρίσκονται μεταξύ -3 και +3, δηλαδή περίπου τρία standard deviations μακριά από το mean και προς τις δύο κατευθύνσεις. Αυτό σημαίνει ότι το εύρος ολόκληρης της κατανομής (δηλαδή πρακτικά κάθε παρατήρηση) βρίσκεται περίπου μέσα σε 6 standard deviations.
Όταν μια κανονική κατανομή έχει mean 0 και standard deviation 1, ονομάζεται τυπική κανονική κατανομή (standard normal distribution). Αυτή η ιδέα συνδέεται άμεσα με την έννοια του standardization (βλ. Κεφάλαιο Κλιμάκωση δεδομένων (Scaling)), όπου το standardization μετασχηματίζει μια μεταβλητή θέτοντας το mean της στο 0 και το standard deviation της στο 1—με αποτέλεσμα αυτό που ονομάζουμε τυπική κανονική κατανομή, όταν εφαρμόζεται σε δεδομένα που ακολουθούν κανονική κατανομή. Η τυπική κανονική κατανομή είναι επομένως μια τυποποιημένη εκδοχή οποιασδήποτε κανονικής κατανομής, που διευκολύνει τη σύγκριση τιμών από διαφορετικά σύνολα δεδομένων ή μεταβλητές.
Ας δούμε τώρα πώς θα άλλαζαν η διασπορά και η κορυφή αν δίναμε διαφορετικές τιμές στο \(\sigma\), κρατώντας το \(\mu\) στο 0. Το παρακάτω διάγραμμα δείχνει τρεις διαφορετικές κανονικές κατανομές με \(\sigma = 1\) (μπλε), \(\sigma = 1.5\) (μαύρη) και \(\sigma = 2\) (κόκκινη):

Η κορυφή ανεβαίνει ή κατεβαίνει ανάλογα με την τιμή του standard deviation, ενώ η διασπορά αντίστοιχα μειώνεται ή αυξάνεται, αλλά το κέντρο μένει πάντα το ίδιο. Παρόλο που διαφορετικές παράμετροι οδηγούν σε διαφορετική κανονική κατανομή, όλες έχουν τις ίδιες ιδιότητες. Η κανονική κατανομή είναι πάντα συμμετρική και σε σχήμα καμπάνας, με κέντρο το mean της (\(\mu\)). Τα κύρια χαρακτηριστικά της είναι τα εξής:
Η κορυφή της καμπύλης βρίσκεται στο mean.
Η καμπύλη είναι απόλυτα συμμετρική γύρω από το mean, που σημαίνει ότι το mean, το median και το mode είναι ίσα. Με άλλα λόγια, η αριστερή πλευρά της καμπύλης είναι το κατοπτρικό είδωλο της δεξιάς.
Παρόλο που η μικρότερη και η μεγαλύτερη τιμή σε αυτό το διάγραμμα φαίνεται να είναι το -3 και το 3 αντίστοιχα, η κανονική κατανομή δεν έχει όρια σε καμία πλευρά. Με άλλα λόγια, οι ουρές της κατανομής τείνουν στο άπειρο και προς τις δύο κατευθύνσεις (παρόλο που αυτό δεν φαίνεται σε ένα διάγραμμα). Λέμε, σε αυτή την περίπτωση, ότι η κανονική κατανομή είναι ασυμπτωτική (asymptotic). Στο παραπάνω διάγραμμα, αυτές οι γραμμές εκτείνονται στην πραγματικότητα στο άπειρο (χωρίς, φυσικά, να φαίνεται).
Σε κάθε περίπτωση, μπορούμε να χρησιμοποιήσουμε την PDF για να υπολογίσουμε την πυκνότητα πιθανότητας μιας τιμής. Στο τελευταίο μας παράδειγμα, επειδή έχουμε διαφορετικές τιμές για το \(\sigma\), η density θα ήταν διαφορετική για \(x = 0\), κάτι που φαίνεται στο διαφορετικό ύψος της κορυφής.
Σε αυτό το σημείο, είναι σημαντικό να διευκρινίσουμε ξανά ότι η πυκνότητα πιθανότητας (ή απλώς density) δεν είναι το ίδιο με την πιθανότητα. Όπως αναφέρθηκε και στο Κεφάλαιο Στατιστικές κατανομές, σε μια συνεχή κατανομή η πιθανότητα να παρατηρήσουμε μια μεμονωμένη, ακριβή τιμή (όπως \(x = 0\)) είναι στην πραγματικότητα μηδέν. Αυτό συμβαίνει επειδή στις συνεχείς κατανομές η πιθανότητα ορίζεται σε διαστήματα και όχι σε μεμονωμένα σημεία. Αντί να αποδίδει πιθανότητες σε ακριβείς τιμές, η PDF μας λέει πόσο πυκνά συγκεντρωμένη είναι η πιθανότητα γύρω από κάθε σημείο. Όσο υψηλότερη είναι η density σε μια τιμή, τόσο πιο «εύλογη» είναι αυτή η τιμή για τη συγκεκριμένη κατανομή—αλλά αυτό δεν σημαίνει ότι υπάρχει 40% πιθανότητα να πάρουμε ακριβώς αυτή την τιμή. Έτσι, στο πρώτο παράδειγμα θα λέγαμε ότι η density στο \(x = 0\) είναι περίπου 0.4, αλλά θα μπορούσαμε επίσης να πούμε ότι η πιθανότητα το \(x\) να βρίσκεται στο διάστημα [-2, +2] είναι περίπου 95%, ένα ποσοστό που στην πραγματικότητα υπολογίζεται με βάση το εμβαδόν της κατανομής (βλ. Κεφάλαιο Στατιστικές κατανομές).
Ως παράδειγμα, ας εστιάσουμε στο παρακάτω διάγραμμα, το οποίο απεικονίζει την τυπική κανονική κατανομή χωρισμένη σε μονάδες standard deviation. Αυτό ισοδυναμεί με το να πούμε ότι χωρίσαμε το εμβαδόν σε μικρότερα κομμάτια. Με αυτόν τον τρόπο, μπορούμε να υπολογίσουμε εύκολα πιθανότητες:

Η κορυφή παραμένει ίδια με πριν—density περίπου 0.4 στο κέντρο—αλλά τώρα μπορούμε επίσης να υπολογίσουμε την πιθανότητα μια τιμή της \(X\) να βρίσκεται μέσα σε ένα συγκεκριμένο διάστημα. Για παράδειγμα, όπως αναφέραμε νωρίτερα, η πιθανότητα μια τυχαία τιμή της \(X\) να βρίσκεται στο διάστημα [-2, +2] είναι περίπου 95%. Αυτό υπολογίζεται αθροίζοντας τις σκιασμένες περιοχές κάτω από την καμπύλη μεταξύ -2 και +2, όπως φαίνεται στο παραπάνω διάγραμμα.
Κάθε τμήμα του διαγράμματος αντιπροσωπεύει ένα μέρος της συνολικής πιθανότητας. Για παράδειγμα, περίπου το 68% του εμβαδού βρίσκεται μέσα σε ένα standard deviation από το mean (από -1 έως +1), περίπου το 95% μέσα σε δύο standard deviations και πάνω από το 99% μέσα σε τρία. Επειδή το συνολικό εμβαδόν κάτω από την καμπύλη είναι ίσο με 1 (ή 100%), αυτά τα ποσοστά αντιστοιχούν απευθείας στις πιθανότητες που μας ενδιαφέρουν.
Αυτή η δυνατότητα απεικόνισης και υπολογισμού πιθανοτήτων σε διαστήματα είναι ένα από τα βασικά πλεονεκτήματα της κανονικής κατανομής και αποτελεί τη βάση για πολλά στατιστικά εργαλεία που θα δούμε αργότερα, όπως τα διαστήματα εμπιστοσύνης και ο έλεγχος υποθέσεων.
Η τυπική κανονική κατανομή είναι σημαντική επειδή παρέχει ένα καθολικό σύστημα αναφοράς. Επίσης, στο πλαίσιο της κανονικής κατανομής, μια τυποποιημένη τιμή ονομάζεται z-score, μια έννοια που συζητήσαμε στο Κεφάλαιο Κλιμάκωση δεδομένων (Scaling). Όπως αναμένεται, ένα z-score μας λέει πόσα standard deviations απέχει μια τιμή από το mean. Επειδή τα z-scores δεδομένων που ακολουθούν κανονική κατανομή ακολουθούν την τυπική κανονική κατανομή, μπορούμε να χρησιμοποιήσουμε μία μόνο κατανομή για να υπολογίσουμε πιθανότητες, percentiles και κρίσιμες τιμές. Αυτό κάνει την τυπική κανονική κατανομή ένα ισχυρό εργαλείο πίσω από πολλές στατιστικές μεθόδους, όπως ο έλεγχος υποθέσεων και τα διαστήματα εμπιστοσύνης, τα οποία εξετάζουμε σε επόμενα κεφάλαια.
Ασυμμετρία και κύρτωση
Σε αυτό το σημείο, ας παρουσιάσουμε δύο ακόμη βασικά χαρακτηριστικά οποιασδήποτε κατανομής: την ασυμμετρία (skewness) και την κύρτωση (kurtosis).
Η ασυμμετρία αναφέρεται στην έλλειψη συμμετρίας στο σχήμα μιας κατανομής. Σε μια απόλυτα συμμετρική κατανομή, όπως η κανονική κατανομή, η ασυμμετρία είναι μηδέν και το mean, το median και το mode συμπίπτουν. Όταν η κατανομή έχει αρνητική ασυμμετρία (negatively skewed), έχει μακρύτερη ουρά στα αριστερά, που συχνά οφείλεται σε λίγες εξαιρετικά χαμηλές τιμές που τραβούν το mean προς τα κάτω. Αντίθετα, μια κατανομή με θετική ασυμμετρία (positively skewed) έχει μακρύτερη ουρά στα δεξιά, λόγω υψηλών outliers που τραβούν το mean προς τα πάνω. Ένας διαισθητικός τρόπος να σκεφτούμε την ασυμμετρία είναι ότι το mean, το median και το mode δεν ταυτίζονται πλέον: βρίσκονται σε διαφορετικές θέσεις μέσα στην κατανομή (Urdan, 2022). Για παράδειγμα, όπως είδαμε στο Κεφάλαιο Στατιστικές κατανομές, τα δεδομένα μισθών συχνά παρουσιάζουν δεξιά ασυμμετρία, με τους περισσότερους ανθρώπους να έχουν μέτρια εισοδήματα και λίγα άτομα να κερδίζουν πολύ περισσότερα, κάτι που δημιουργεί μια μακριά δεξιά ουρά. Παρακάτω βλέπουμε οπτικά παραδείγματα κατανομών με αρνητική και θετική ασυμμετρία:

Η κύρτωση, από την άλλη πλευρά, περιγράφει το «βάρος των ουρών» (tailedness) μιας κατανομής, δηλαδή πόσο συχνά εμφανίζονται ακραίες τιμές σε σύγκριση με την κανονική κατανομή.
Μια λεπτόκυρτη (leptokurtic) κατανομή έχει βαρύτερες ουρές (και συνήθως πιο οξεία κορυφή) από μια κανονική κατανομή, που δείχνει ότι οι ακραίες τιμές εμφανίζονται πιο συχνά.
Μια πλατύκυρτη (platykurtic) κατανομή έχει ελαφρύτερες ουρές (και συνήθως πιο επίπεδη κορυφή) από μια κανονική κατανομή, που δείχνει ότι οι ακραίες τιμές εμφανίζονται λιγότερο συχνά.
Ακολουθεί ένα διάγραμμα που απεικονίζει μια κανονική, μια λεπτόκυρτη και μια πλατύκυρτη κατανομή:

Από το διάγραμμα, βλέπουμε ότι, παρόλο που και οι τρεις καμπύλες έχουν σχήμα καμπάνας, μόνο η μπλε καμπύλη αντιστοιχεί σε πραγματική κανονική κατανομή. Η λεπτόκυρτη (μαύρη) καμπύλη έχει πιο οξεία κορυφή και βαρύτερες ουρές, ενώ η πλατύκυρτη (κόκκινη) καμπύλη είναι πιο επίπεδη και έχει ελαφρύτερες ουρές από την κανονική καμπύλη.
Η κανονική κατανομή έχει μια συγκεκριμένη ισορροπία ανάμεσα στη συγκέντρωση των δεδομένων γύρω από το mean και στη συχνότητα των ακραίων τιμών στις ουρές. Οι λεπτόκυρτες κατανομές έχουν μεγαλύτερη κύρτωση, που δείχνει περισσότερα δεδομένα συγκεντρωμένα κοντά στο mean, αλλά και βαρύτερες ουρές με περισσότερα ακραία outliers. Οι πλατύκυρτες κατανομές έχουν μικρότερη κύρτωση, που δείχνει ότι τα δεδομένα είναι πιο ομοιόμορφα κατανεμημένα και ότι υπάρχουν λιγότερα ακραία outliers.
Επειδή η κύρτωση επηρεάζει άμεσα το σχήμα της συνάρτησης πυκνότητας πιθανότητας (PDF), οποιαδήποτε απόκλιση από την τιμή κύρτωσης της κανονικής κατανομής σημαίνει ότι η PDF της κατανομής δεν ταιριάζει πλέον με αυτή μιας πραγματικής κανονικής κατανομής. Ακόμη κι αν αυτές οι κατανομές μοιάζουν με καμπύλη καμπάνας, οι διαφορές τους στην οξύτητα της κορυφής και στο βάρος των ουρών σημαίνουν ότι δεν ακολουθούν ακριβώς τις θεωρητικές ιδιότητες της κανονικής κατανομής. Με άλλα λόγια, οι λεπτόκυρτες και οι πλατύκυρτες κατανομές μπορεί να μοιάζουν κανονικές, αλλά δεν είναι.
Υπολογισμοί και προσομοιώσεις στην R
Η base R παρέχει ένα συνεπές σύνολο συναρτήσεων για να δουλεύουμε με θεωρητικές κατανομές πιθανότητας, συμπεριλαμβανομένης της κανονικής κατανομής. Αυτές οι συναρτήσεις μάς επιτρέπουν να προσομοιώνουμε τυχαίες τιμές, να υπολογίζουμε πιθανότητες και πολλά άλλα. Κάθε συνάρτηση ακολουθεί μια σύμβαση ονοματολογίας: ξεκινά με ένα συγκεκριμένο γράμμα που δείχνει τον τύπο της πράξης, ακολουθούμενο από το όνομα της κατανομής.
Τα κύρια προθέματα είναι:
d: για τον υπολογισμό της πυκνότητας πιθανότητας (probability density) σε μια δεδομένη τιμήp: για τον υπολογισμό της αθροιστικής πιθανότητας (cumulative probability, δηλαδή του εμβαδού κάτω από την καμπύλη αριστερά μιας τιμής)q: για τον υπολογισμό του quantile (της τιμής κάτω από την οποία βρίσκεται ένα δεδομένο ποσοστό των δεδομένων)r: για τυχαία δειγματοληψία (παραγωγή προσομοιωμένων τιμών από την κατανομή)
Για να δούμε πώς λειτουργούν αυτές οι συναρτήσεις, ας θεωρήσουμε μια κανονική κατανομή με \(\mu = 1\) και \(\sigma = 2\):

Αυτή η κατανομή έχει κορυφή στο \(x = 1\), που αντιστοιχεί στο mean. Έχει επίσης το χαρακτηριστικό σχήμα καμπάνας, με τη διασπορά να καθορίζεται από το standard deviation \(\sigma = 2\).
Για να υπολογίσουμε τη density (το ύψος της καμπύλης) στο \(x = 1\), χρησιμοποιούμε τη συνάρτηση dnorm():
# Υπολογισμός της density στο x = 1
dnorm(x = 1, mean = 1, sd = 2)[1] 0.1994711
Η έξοδος είναι περίπου 0.2, που ταιριάζει με το ύψος της κορυφής στο παραπάνω διάγραμμα.
Ας υπολογίσουμε τώρα μια αθροιστική πιθανότητα (cumulative probability)—για παράδειγμα, την πιθανότητα να πάρουμε μια τιμή μικρότερη ή ίση με 1. Μπορούμε να απεικονίσουμε αυτό το εμβαδόν (το αριστερό μισό της κατανομής):

Η σκιασμένη περιοχή αντιπροσωπεύει την αθροιστική πιθανότητα για \(x \le 1\). Επειδή το 1 είναι το mean, περιμένουμε αυτή να είναι περίπου 50%, κάτι που μπορούμε να επιβεβαιώσουμε με την pnorm():
# Υπολογισμός της αθροιστικής πιθανότητας
pnorm(q = 1, mean = 1, sd = 2)[1] 0.5
Το αποτέλεσμα είναι ακριβώς 0.5, κάτι που επιβεβαιώνει αυτό που περιμέναμε.
Τι γίνεται αν θέλουμε να πάμε προς την αντίθετη κατεύθυνση; Ας υποθέσουμε ότι γνωρίζουμε μια αθροιστική πιθανότητα (π.χ. 0.95) και θέλουμε να βρούμε την τιμή της \(X\) που αντιστοιχεί σε αυτή. Για τον σκοπό αυτό, χρησιμοποιούμε τη συνάρτηση qnorm():
# Εύρεση του 95ου percentile
qnorm(p = 0.95, mean = 1, sd = 2)[1] 4.289707
Αυτό μας λέει ότι περίπου το 95% των τιμών αυτής της κατανομής βρίσκεται κάτω από το 4.29 περίπου.
Μέχρι στιγμής, χρησιμοποιήσαμε τις dnorm(), pnorm() και qnorm() για υπολογισμούς. Η τελευταία συνάρτηση, η rnorm(), μας επιτρέπει να προσομοιώνουμε τυχαίες τιμές από την κατανομή. Το πρώτο όρισμα είναι το πόσες τιμές θέλουμε να πάρουμε.
Ας προσομοιώσουμε 100,000 τιμές από μια κανονική κατανομή με \(\mu = 1\) και \(\sigma = 2\) και ας απεικονίσουμε το αποτέλεσμα:
# Προσομοίωση 100,000 τιμών
simulated_data <- rnorm(n = 100000, mean = 1, sd = 2)
# Διάγραμμα του simulated_data
tibble(x = simulated_data) %>%
ggplot(aes(x = x)) +
geom_histogram(bins = 50,
fill = "skyblue",
color = "black") +
labs(x = "Simulated Values",
y = "Count")
Παρόλο που περιλαμβάνεται ο κώδικας για τη δημιουργία του διαγράμματος, δεν χρειάζεται να εστιάσουμε εδώ στις λεπτομέρειες της σχεδίασης· αυτές θα καλυφθούν σε επόμενα κεφάλαια.
Όπως αναμενόταν, το histogram ακολουθεί πολύ καλά το σχήμα καμπάνας της κανονικής κατανομής. Αυτό δείχνει πώς η προσομοίωση μάς επιτρέπει να προσεγγίζουμε θεωρητικές κατανομές με πραγματικά δείγματα.
Το κεντρικό οριακό θεώρημα μέσω προσομοίωσης
Αναφέραμε νωρίτερα ότι το κεντρικό οριακό θεώρημα (CLT) μας λέει κάτι πολύ σημαντικό: όταν παίρνουμε τον μέσο όρο πολλών ανεξάρτητων δειγμάτων από οποιαδήποτε κατανομή (με πεπερασμένο mean και variance), η κατανομή αυτών των μέσων όρων προσεγγίζει την κανονική κατανομή, ακόμη κι αν η αρχική κατανομή δεν είναι κανονική.
Μπορούμε να δείξουμε το CLT μέσω προσομοίωσης στην R. Για να το κάνουμε αυτό, θα αποφύγουμε σκόπιμα να χρησιμοποιήσουμε την rnorm(), η οποία παίρνει τιμές απευθείας από μια κανονική κατανομή. Αυτό θα ακύρωνε τον σκοπό μας, αφού το αποτέλεσμα θα ήταν ήδη κανονικό εκ κατασκευής. Αντί γι’ αυτό, θα πάρουμε τιμές από μια λογαριθμοκανονική κατανομή (log-normal distribution), η οποία είναι γνωστή για τη θετική ασυμμετρία της (μακριά δεξιά ουρά). Θα εξετάσουμε αυτή την κατανομή πιο αναλυτικά σε άλλο κεφάλαιο· προς το παρόν, αρκεί να καταλάβουμε ότι δεν είναι ούτε συμμετρική ούτε κανονική.
Ας δούμε το σχήμα μιας λογαριθμοκανονικής κατανομής παίρνοντας 1,000 τιμές και δημιουργώντας το histogram τους:
# Ορισμός του seed
set.seed(125)
# Λήψη 1,000 τιμών από λογαριθμοκανονική κατανομή και διάγραμμα
tibble(X = rlnorm(n = 1000, meanlog = 0, sdlog = 1)) %>%
ggplot(aes(x = X)) +
geom_histogram(bins = 50,
fill = "skyblue",
color = "black") +
labs(x = "Variable X",
y = "Count")
Όπως αναμενόταν, το διάγραμμα έχει έντονη δεξιά ασυμμετρία. Η κορυφή βρίσκεται κοντά στο μηδέν και η ουρά εκτείνεται μακριά προς μεγαλύτερες τιμές, κάτι που αποτελεί τυπικό σχήμα λογαριθμοκανονικής κατανομής.
Ας εφαρμόσουμε τώρα το κεντρικό οριακό θεώρημα.
Το προσομοιώνουμε επαναλαμβάνοντας την εξής διαδικασία:
Παίρνουμε ένα δείγμα 1,000 παρατηρήσεων από τη λογαριθμοκανονική κατανομή.
Υπολογίζουμε το mean αυτού του δείγματος
Επαναλαμβάνουμε αυτή τη διαδικασία 10,000 φορές, για να δημιουργήσουμε μια κατανομή των sample means.
Δείτε πώς το υλοποιούμε στην R:
# Ορισμός του seed
set.seed(125)
# Προσομοίωση 10,000 sample means
tibble(Sample_Number = 1:10000) %>%
group_by(Sample_Number) %>%
mutate(Sample_Average = mean(rlnorm(n = 1000, meanlog = 0))) %>%
ungroup() %>%
ggplot(aes(x = Sample_Average)) +
geom_histogram(fill = "skyblue",
color = "black") +
labs(x = "Sample Means of Variable X",
y = "Count")
Και πάλι, δεν χρειάζεται να εστιάσουμε στον κώδικα για τη δημιουργία αυτού του διαγράμματος. Το κύριο σημείο είναι ότι, παρόλο που τα αρχικά δεδομένα έχουν ασυμμετρία, η κατανομή των sample means που προκύπτει μοιάζει εντυπωσιακά κανονική· αυτό ακριβώς προβλέπει το CLT.
Αυτή η προσομοίωση αναδεικνύει γιατί το κεντρικό οριακό θεώρημα είναι τόσο σημαντικό. Εξηγεί γιατί μπορούμε συχνά να χρησιμοποιούμε την κανονική κατανομή για να βγάζουμε συμπεράσματα για μέσους όρους ή αθροίσματα, ακόμη κι όταν τα δεδομένα από τα οποία ξεκινάμε δεν ακολουθούν κανονική κατανομή. Στην πράξη, αυτό σημαίνει ότι μπορούμε να χρησιμοποιούμε εργαλεία που βασίζονται στην κανονική κατανομή (όπως τα διαστήματα εμπιστοσύνης και οι έλεγχοι υποθέσεων) πολύ πιο ευρέως από ό,τι θα περίμενε κανείς.
Είναι επίσης σημαντικό να θυμόμαστε ότι, αν ένα δείγμα δεν μοιάζει να ακολουθεί κανονική κατανομή, αυτό δεν σημαίνει απαραίτητα ότι ο πληθυσμός από τον οποίο προήλθε δεν είναι κανονικός. Ένα μεμονωμένο δείγμα, ειδικά αν είναι μικρό ή μεροληπτικό, μπορεί εύκολα να δώσει λανθασμένη εικόνα για το πραγματικό σχήμα του πληθυσμού. Η τυχαία μεταβλητότητα, το δειγματοληπτικό σφάλμα ή η συστηματική μεροληψία μπορούν όλα να αλλοιώσουν αυτό που βλέπουμε σε ένα δείγμα, οπότε πρέπει να είμαστε προσεκτικοί ώστε να μη βγάζουμε ισχυρά συμπεράσματα για τον πληθυσμό με βάση μόνο το σχήμα του δείγματος.
Πότε ισχύει και πότε δεν ισχύει το CLT
Το κεντρικό οριακό θεώρημα (CLT) είναι ένα ισχυρό αποτέλεσμα, αλλά δεν ισχύει σε όλες τις περιπτώσεις. Λειτουργεί καλά μόνο υπό ορισμένες προϋποθέσεις.
Για να ισχύει το CLT, πρέπει να ισχύουν τα εξής:
Ανεξάρτητες παρατηρήσεις: Οι τιμές που παίρνουμε στο δείγμα δεν πρέπει να επηρεάζουν η μία την άλλη.
Ίδιος πληθυσμός: Όλα τα δείγματα πρέπει να προέρχονται από την ίδια κατανομή.
Πεπερασμένο variance: Η διασπορά του πληθυσμού πρέπει να είναι περιορισμένη. Αν το variance είναι άπειρο, η κατανομή του sample mean μπορεί να μη γίνει κανονική.
Αν πληρούνται αυτές οι προϋποθέσεις και το μέγεθος του δείγματος είναι αρκετά μεγάλο, τότε το CLT τίθεται σε ισχύ: η κατανομή του sample mean γίνεται κατά προσέγγιση κανονική, ακόμη κι αν τα αρχικά δεδομένα είχαν ασυμμετρία ή ακανόνιστο σχήμα.
Ωστόσο, αν ο πληθυσμός έχει βαριές ουρές ή το μέγεθος του δείγματος είναι μικρό, το CLT μπορεί να μην ισχύει ή να δίνει κακά αποτελέσματα. Σε τέτοιες περιπτώσεις, δεν πρέπει να περιμένουμε ότι το sample mean θα ακολουθεί κανονικό μοτίβο.
Ανακεφαλαίωση
Σε αυτό το κεφάλαιο, εξετάσαμε την κανονική κατανομή, μία από τις πιο συνηθισμένες και σημαντικές κατανομές στη στατιστική. Είδαμε ότι εμφανίζεται ως μια συμμετρική καμπύλη σε σχήμα καμπάνας, η οποία ορίζεται πλήρως από το mean και το standard deviation της. Το mean καθορίζει το κέντρο της κατανομής, ενώ το standard deviation μας λέει πόσο διασκορπισμένες είναι οι τιμές γύρω από αυτό το κέντρο. Συζητήσαμε επίσης το κεντρικό οριακό θεώρημα, ένα ισχυρό αποτέλεσμα που δείχνει ότι η κατανομή του sample mean γίνεται κατά προσέγγιση κανονική καθώς μεγαλώνει το μέγεθος του δείγματος, ανεξάρτητα από το σχήμα των αρχικών δεδομένων. Σε όλο το κεφάλαιο, χρησιμοποιήσαμε την R για να δημιουργήσουμε, να απεικονίσουμε και να αναλύσουμε κανονικά δεδομένα, συνδέοντας τη θεωρία με την πράξη. Τέλος, αυτό το κεφάλαιο έθεσε τις βάσεις για τον υπολογισμό πιθανοτήτων και την προσομοίωση δεδομένων με άλλες θεωρητικές κατανομές, τις οποίες θα εξετάσουμε στα επόμενα κεφάλαια.